即時快訊
Perky榮獲MUSE國際設計雙銀獎,女性營養品牌累積六項國內外肯定 金門酒廠「一穀作契」100%本土契作好品質 獲得農業部農糧署國產農糧原料酒推薦 「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工 葡萄牙搶攻美國資本 美資存量翻倍衝破 160 億歐元
圖/示意圖
科技生活

·4 months ago·責任編輯
#OpenAI#Codex#AI程式開發#上下文視窗#軟體工程
圖/示意圖
圖/示意圖
商傳媒|責任編輯/綜合外電報導
摘要

OpenAI 悄然將其 AI 程式開發工具 Codex 的 GPT-5.6 模型上下文視窗縮減 27%,從 372,000 Token 降至 272,000 Token,此舉引發開發者對 AI 程式撰寫效能與可靠性的擔憂,專家建議企業應重新評估其 AI 工作流程並採納多代理、窄上下文的設計。

人工智慧公司 OpenAI 近日悄然將旗下 AI 程式開發工具 Codex 中,GPT-5.6 模型預設的輸入上下文視窗(Context Window)從 372,000 Token 大幅縮減至 272,000 Token,縮幅高達 27%。此變動是在 GitHub 的一個拉取請求(pull request)中被發現,隨後有開發者在 Reddit 和 X(前身為 Twitter)等平台上提出質疑,因為 OpenAI 並未針對此一重大調整提供任何解釋。

上下文視窗,意指 AI 模型一次性能夠處理的資訊量。Token 則是 AI 模型處理文本的基本單位,可以是字、詞或字符片段。這次縮減引發開發者的普遍擔憂,認為較小的上下文視窗將導致 Codex 更早地壓縮對話歷史,進而可能遺失早期的邏輯推論。研究顯示,在長上下文模型中存在一種「中間遺失」(lost in the middle)效應,即輸入內容中間部分的資訊較易被忽略,導致準確度大幅下降逾 30%,且問題在達到宣稱的限制之前就可能發生。

專家將此現象稱為 AI 程式代理中的「上下文腐爛」(context rot),意指 AI 代理的性能在沒有明確錯誤提示的情況下逐漸下降,可能導致舊有錯誤重新出現或邏輯矛盾。The Futurum Group 負責軟體生命週期工程與 AI 原生軟體工程的副總裁 Mitch Ashley 指出,管理上下文視窗預算對開發者而言,是攸關品質、可靠性和生產力的實際問題。他表示:「當團隊使用 Codex 處理大型程式碼庫時,會更早碰到資料壓縮,而每次壓縮都可能讓 AI 代理遺漏掉已解決的限制條件。」

這項變動對例行性任務、錯誤修復、小型功能開發或單一檔案修改的影響預期不大。然而,對於需要處理大型程式碼庫、耗時較長的自主程式開發工作(AI 程式代理的預期用途)而言,將會帶來顯著影響。企業若依賴固定上下文預算來建構工作流程,將面臨供應商調整限制時可能產生的問題。這突顯了圍繞 AI 程式代理所建構工具,其韌性(resilience)不足之處。

為因應此類變動,專家建議企業應採取更具持久性的策略。這包括將大型任務拆解為更小、界限明確的工作單位,並採用檢索(retrieval)機制,讓 AI 代理在需要時才從相關程式碼和文件中動態獲取資訊。Mitch Ashley 認為,這次 Codex 上下文視窗的縮減,正是業者意識到市場正朝向多代理工作流程(multi-agent workflows)發展,每個代理皆以更窄、更精準的上下文範圍運作的趨勢。他建議企業重新審視現有假設,並規劃多代理、窄上下文的設計,而非僅依賴單一大型上下文視窗。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源